ChatGPT зазнав критики через витік конфіденційних даних

Нещодавно ChatGPT, мовна модель штучного інтелекту, розроблена компанією OpenAI, зазнала критики, після того як з’явилися повідомлення про витік приватних розмов, що містять конфіденційну інформацію. Про це стало відомо від читача arstechnica.com, який поділився скриншотами, що демонструють кілька пар імен користувачів і паролів, пов’язаних із системою підтримки, якою користуються співробітники аптечного порталу рецептурних ліків. Розмови, що потрапили в мережу, містили відверту лайку, деталі усунення несправностей, назву програми, про яку йшлося, і навіть номер магазину, у якому виникла проблема.

Користувач висловив своє розчарування, заявивши: «Це таке божевілля, жах, жах, жах, жах, я не можу повірити, наскільки погано це було зроблено із самого початку, і що переді мною чинять перешкоди, які не дають йому стати кращим. Я б видалив [відредагована назва програмного забезпечення] просто за цей абсурд, якби це був мій вибір. Це неправильно».

Варто зазначити, що витік інформації вийшов за межі того, що було видно на відредагованих скриншотах. За посиланням, наданим читачем, можна було переглянути всю розмову в чаті, викриваючи додаткові пари облікових даних. У витоку розмови, що стосувалася порталу рецептів, також згадувався 2020 рік, а це вказує на те, що витік даних міг статися саме в цей період.

Користувач, який повідомив про інцидент, Чейз Вайтсайд, підкреслив, що витоки розмов з’явилися в його історії без будь-яких запитів. Ці несанкціоновані розмови раптово з’явилися, після того як користувач використав ChatGPT для не пов’язаного з ними запиту. Витік інформації містив не лише конфіденційні корпоративні дані, але й особисті відомості про неопубліковану дослідницьку пропозицію, скрипт мовою програмування PHP, а також деталі презентації.

Цей інцидент укотре виводить на перший план виклики та ризики, пов’язані з мовними моделями ШІ. Він підкреслює необхідність для користувачів проявляти обережність і бути пильними щодо потенційного витоку даних під час використання таких служб.

Це не перший випадок, коли ChatGPT стикається з проблемами, що стосуються конфіденційності даних. У березні минулого року OpenAI вивела чат-бот в офлайн через баг, який змушував його показувати заголовки з історії чату одного активного користувача не пов’язаним із ним користувачам. У листопаді дослідники повідомили, як вони використовували запити для вилучення приватних даних із ChatGPT, зокрема адрес електронної пошти, номерів телефонів і фізичних адрес.

Важливо зазначити, що занепокоєння щодо витоку даних і конфіденційності спонукало компанії, включно з Apple, обмежити використання ChatGPT й подібних служб своїми працівниками. Розслідування цього нещодавнього інциденту вкотре порушує питання про заходи безпеки для широко використовуваних моделей штучного інтелекту й потенційні наслідки ненавмисного витоку даних.

Бажаєте забезпечити свій бізнес професійним захистом, але не знаєте, з чого почати? Зверніться до DigVel, і ми залюбки вам допоможемо!